Brasil cria novas regras para o uso de inteligência artificial nas escolas - resenha crítica

Inteligência artificial generativa é o tipo de tecnologia que produz texto, imagem ou resposta a partir de um comando escrito o ChatGPT é o exemplo mais conhecido. Nos últimos anos, ela entrou nas escolas e universidades brasileiras sem que houvesse regra dizendo o que pode e o que não pode: professores usam para planejar aulas, alunos usam para escrever trabalhos, instituições contratam sistemas que prometem corrigir provas ou prever quem vai desistir do curso. Até agora, cada escola decidia sozinha.

É nesse contexto que aparece a notícia desta semana. Nesta terça-feira (1º), depois de dois anos de discussão e de uma consulta pública, o Conselho Nacional de Educação (CNE) aprovou em plenário as Diretrizes Orientadoras da Utilização da Inteligência Artificial na Educação Brasileira o primeiro conjunto nacional de regras para o uso dessas ferramentas em escolas e universidades, públicas e privadas.

O texto agora segue para homologação do Ministério da Educação. No conselho, a expectativa é que isso ocorra até 6 de outubro, quando o colegiado completa 30 anos. Depois da homologação, redes e instituições terão 12 meses para se adequar mas as proibições previstas no parecer têm aplicação imediata.

Como funciona a nova escala de risco

O instrumento central das diretrizes é uma classificação em quatro níveis, que define o que cada tipo de uso exige.

No baixo risco estão as ferramentas de apoio que não afetam decisões acadêmicas: organizar materiais didáticos, auxiliar no planejamento pedagógico, fazer revisão textual sem finalidade avaliativa, traduzir, resumir e oferecer recursos de acessibilidade como legendagem e leitura de tela.

O risco moderado cobre sistemas que interagem de forma contínua com o estudante ou fazem recomendações, mas sem poder decisório automático: tutores virtuais, ferramentas de feedback formativo sem repercussão na nota, assistentes institucionais de atendimento, apoio à produção textual e à pesquisa. Nesses casos, a revisão humana dos resultados é obrigatória, além de monitoramento periódico de erros, alucinações e vieses.

O alto risco reúne aplicações capazes de afetar a vida acadêmica ou restringir direitos: correção automatizada de avaliações com repercussão acadêmica, sistemas de proctoring o monitoramento de estudantes durante provas —, perfilização acadêmica individualizada, sistemas de seleção, certificação e análise disciplinar, tratamento de dados sensíveis e ferramentas de predição de evasão ou desempenho. Aqui o texto exige o que chama de salvaguardas reforçadas: avaliação de impacto, supervisão humana significativa, contínua, qualificada e documentada, monitoramento de vieses e demonstração de que não havia alternativa menos invasiva.

O quarto nível é o risco excessivo ou incompatível com as finalidades educacionais, e o que cai nele está proibido.

O que fica proibido

A lista de vedações é o coração da regulamentação. Está proibida a correção, avaliação ou atribuição de nota por IA a avaliações dissertativas, redações e produções autorais que exijam juízo interpretativo. Também não é permitido usar a ferramenta para fazer uma pré-correção ou apresentar ao professor uma sugestão de nota.

"O juízo avaliativo é do professor, ele não pode ser substituído pela IA. São decisões que afetam o futuro do estudante e tem que haver mediação humana", afirmou Celso Niskier, relator do texto na Câmara de Educação Superior do CNE.

Nas provas objetivas a situação é diferente: a IA pode ser usada como apoio, mas o resultado precisa passar por validação humana prévia, qualificada e documentada o professor não pode apenas aprovar o que a máquina produziu. As instituições ainda devem manter registros que permitam verificar como a correção foi feita, possibilitar contestação e acompanhar erros e vieses do sistema.

A segunda proibição de efeito prático imediato trata dos detectores de conteúdo gerado por IA, programas hoje usados por escolas e universidades para apontar se um texto foi escrito por um chatbot. Eles podem servir como elemento auxiliar de uma apuração, mas nenhuma sanção acadêmica ou disciplinar poderá se fundar exclusivamente no resultado de um detector automatizado. Na prática, um sistema que aponte que determinado texto "parece ter sido escrito por IA" não basta, sozinho, para reprovar, suspender ou punir um estudante.

Também entram na lista de usos vedados os sistemas de pontuação social, o reconhecimento ou inferência automatizada de emoções de estudantes e profissionais, a exploração de vulnerabilidades etárias, emocionais, socioeconômicas ou cognitivas, a perfilização psicológica ou biométrica para fins classificatórios ou disciplinares, a vigilância biométrica contínua, as decisões exclusivamente automatizadas com efeito sobre promoção, retenção, certificação, permanência ou desligamento, e o uso de dados educacionais para publicidade direcionada ou exploração comercial.

Por que crianças até o 5º ano ficam de fora

Na educação infantil e nos anos iniciais do ensino fundamental, até o 5º ano, os estudantes não poderão ter acesso direto, autônomo, individual ou não supervisionado a ferramentas de IA especialmente as de caráter generativo, conversacional, preditivo ou adaptativo.

Isso não significa que a tecnologia esteja banida dessas salas. O uso é permitido quando faz parte de uma atividade pedagógica planejada, conduzida e mediada por um profissional da educação, "sem interação direta livre da criança com a ferramenta e sem coleta desnecessária de dados pessoais dos estudantes", diz o texto.

A restrição foi incluída depois da consulta pública e usa como referência parâmetros internacionais, entre eles a recomendação da Unesco de que o uso autônomo dessas ferramentas comece a partir dos 13 anos. Sempre que houver utilização de IA nessas etapas, as instituições devem informar as famílias sobre a finalidade pedagógica e proteger os dados das crianças.

A lógica declarada é a de incorporação gradual, acompanhando o desenvolvimento do letramento digital, do pensamento crítico e da autonomia intelectual.

Da escola à universidade: currículo, pesquisa e formação de professores

As diretrizes não se limitam a restringir. Elas determinam que o ensino sobre inteligência artificial seja incorporado aos currículos de forma progressiva e transversal, articulado aos letramentos digital, midiático e computacional não como disciplina separada.

Na educação básica, os estudantes devem aprender, conforme a etapa, como esses sistemas funcionam, qual o papel dos dados, quais são os limites, riscos e vieses envolvidos, como lidar com desinformação e conteúdos sintéticos, como verificar fontes e como avaliar criticamente informações produzidas por sistemas automatizados. O texto inclui ainda o desenvolvimento de capacidades metacognitivas: estimular o estudante a refletir sobre os próprios processos de pensamento e de produção de conhecimento quando mediados por essas tecnologias.

No ensino superior, cada instituição deverá estabelecer políticas próprias para o uso de IA em ensino, pesquisa, extensão e gestão, com princípios de autoria, integridade acadêmica, transparência, responsabilidade intelectual e proteção de direitos.

Na pesquisa científica, a regra é de transparência: o uso deve ser declarado sempre que a contribuição da ferramenta for relevante para a elaboração de textos, a análise de dados, a revisão bibliográfica, a programação ou outras etapas do processo investigativo. O parecer é explícito quanto ao limite: a utilização dessas tecnologias não transfere à inteligência artificial a autoria nem a responsabilidade pelos resultados, que permanecem integralmente atribuídas às pessoas pesquisadoras.

Há também um capítulo sobre formação docente. Cursos de Pedagogia e licenciaturas devem tratar de letramento digital docente, uso pedagógico de tecnologias emergentes, análise crítica de dados educacionais, avaliação com auxílio de ferramentas digitais e os aspectos éticos do uso de IA nas escolas.

Sobre dados, o texto determina que a contratação de uma empresa fornecedora não retira da escola ou universidade a responsabilidade de verificar como as informações dos estudantes serão tratadas.

Quem apoia e o que ainda preocupa

A aprovação foi recebida como avanço por conselheiros e especialistas ouvidos pela imprensa.

"O propósito deste parecer não é escolher entre proibir ou liberar a inteligência artificial na educação. É criar as condições para que ela seja usada para ampliar a aprendizagem, a autonomia intelectual e a capacidade de professores e estudantes, preservando aquilo que é indelegável: a intenção pedagógica, o julgamento humano e a responsabilidade sobre as decisões educacionais", disse Niskier.

Mônica Sapucaia, presidente da comissão que debateu as diretrizes, ligou a decisão à ausência de regulação mais ampla sobre ferramentas digitais no país: "Isso é uma decisão política, uma decisão sobre qual é o modelo de educação que nosso país, neste momento, quer. Como nós, como país, ainda não conseguimos responder a muitas dessas questões, a gente, no universo da educação, precisa garantir que não estejamos em terra arrasada quando essas decisões chegarem."

Luiz Claudio Costa, ex-secretário de Educação Superior do MEC, considerou o texto um avanço estratégico, mas apontou o problema do ritmo: "Qualquer regulamentação feita olhando para o futuro em breve tem que ser revista. Porque estamos vendo as modificações da inteligência artificial semana a semana."

Patricia Blanco, presidente do Instituto Palavra Aberta, destacou a inclusão da IA nos currículos e apontou o gargalo: "Um desafio é garantir que os professores tenham acesso a formações sobre esse tema, para que estejam aptos a manejarem esse tipo de ferramenta de acordo com as novas regras."

Tiago Diana, diretor do Colégio Sigma, do Distrito Federal, resumiu o custo da adaptação e o argumento a favor dela: "O maior risco não é a IA dar mais trabalho à escola; é a escola não se preparar e permitir que uma tecnologia poderosa passe a ocupar o lugar do professor, da autoria do estudante e do próprio processo de aprendizagem." Ele também alertou contra o extremo oposto: "O desafio da escola não será simplesmente proibir, mas ensinar progressivamente o estudante a utilizar essas ferramentas com responsabilidade, criticidade e consciência de seus limites."

O que fazer com essa informação

O próximo marco é a homologação pelo MEC, esperada no conselho para até 6 de outubro. É a partir dela que começa a contar o prazo de 12 meses para adequação das redes e é a publicação no Diário Oficial da União que coloca as diretrizes em vigor. O ministério informou que só se manifestará no momento da homologação.

Vale distinguir os dois relógios. As proibições o veto à correção de redações e questões dissertativas por IA, a punição fundada apenas em detector automático, o acesso autônomo de crianças até o 5º ano têm aplicação imediata. Já a adequação das políticas institucionais, dos protocolos e dos contratos com fornecedores é o que ganha o prazo de um ano.

Duas coisas valem acompanhar. A primeira é a formação de professores, apontada por mais de um especialista como o ponto onde a regra pode não sair do papel: as diretrizes exigem supervisão humana qualificada e documentada em usos de alto risco, o que depende de quem esteja preparado para exercê-la. A segunda é o ritmo da revisão: os próprios conselheiros reconhecem que um texto sobre IA envelhece rápido, e o uso dessas ferramentas em sala de aula segue crescendo mais depressa que as regras que agora tentam alcançá-lo.